Divisyen Ke-5 ditubuhkan di Hiroshima pada bulan Januari 1871 sebagai Garison Hiroshima (広島鎮台, Hiroshima chindai), satu daripada enam pemerintahan wilayah dalam Tentera Darat Imperial Jepun yang baharu ditubuhkan . Garison Hiroshima bertanggung jawab ke atas wilayah barat Honshu dari Wilayah Hyogo (Hyogo Prefecture) hingga ke Wilayah Yamaguchi. Keenam-enam pemerintahan wilayah ditukarkan kepada divisyen dalam rombakan tentera darat pada 14 Mei 1888.

Sebagai satu daripada Divisyen tertua dalam Tentera Imperial, Divisyen ke-5 bertempur dalam Perang China-Jepun Pertama. Unit-unit divisyen ini merupakan pasukan tempur pertama Jepun yang mendarat di Korea, dan terlibat dengan serangan terhadap semenanjung Liaodong di China. Divisyen ini juga bertempur dalam Perang Rusia-Jepun, dalam Pertempuran Sandepu dan Pertempuran Mukden.

Dalam Perang China-Jepun Kedua divisyen ini beraksi dalam serangan terhadap Wilayah Chahar dan di sekitar Guangzhou.

Pada permulaan Perang Pasifik Divisyen Ke-5 ditugaskan di bawah markas Pemerintahan Selatan yang diperintah Fil Marsyal Terauchi Hisaichi. Divisyen ini dianggap antara ketumbukan terbaik berdasarkan rekodnya di China dan ditugaskan di bawah Tentera Darat Ke-25 Jepun dalam usaha negara itu menyerang Tanah Melayu dan Singapura dalam Perang Dunia Kedua.

Pertempuran di Tanah Melayu

Divisyen Ke-5 mendarat di pantai timur Tanah Melayu (Kota Bharu) dan Siam, di Singora dan Pattani. Divisyen Ke-5 berjaya bertempur dan mara di utara dan timur Tanah Melayu khususnya dalam Pertempuran Jitra dan Pertempuran Slim River di mana ia menewaskan Divisyen Infantri India Ke-11. Dalam Pertempuran Slim River, Divisyen Ke-5 (khususnya Rejimen Infantri Ke-41), dengan dibantu kereta kebal, berjaya merempuh pertahanan British sejauh 16 batu (25 km), sekaligus membinasakan Divisyen ke-11 India dengan korban seramai 500 orang tentera British korban dan 1,200 menjadi tawanan.[1]

Namun, Divisyen Ke-5 juga mengalami kekalahan dalam Kempen di Tanah Melayu dalam pertempuran di Kampar dan juga semasa bertembung dengan Divisyen Ke-8 Australia dalam pertempuran di jambatan Gemencheh.

Pertempuran Singapura

Pada sebelah malam 8 Februari 1942, enam batalion daripada Divisyen Ke-5 menyeberangi Selat Johor dan mendarat di pantai barat laut Pulau Singapura. Pendaratan ini ditentang Briged Australia Ke-22; namun tentera Jepun berjaya menyusup kawasan pertahanan keliling Australia. Pergerakan ini memaksa Briged Ke-22 berundur dan membolehkan Divisyen ke-5 Jepun menubuhkan pertapakan pantai.

Sejurus selepas kejayaan penting ini, Divisyen Ke-5 memeruskan kemaraan dan membuat beberapa penawanan penting termasuk menawan pangkalan udara RAF Tengah yang terletak di bahagian barat Singapura. Divisyen ini menawan Jalan Bukit Timah pada 11 Februari, dan garison menyerah kalah empat hari kemudian.

Operasi lain

Divisyen Ke-5 seterusnya beraksi di Rabaul dan Guadalcanal di Filipina dan beberapa pulau di Hindia Timur Belanda. Divisyen ini menyerah kalah di pulau Ceram di Hindia Timur Belanda pada akhir Perang.

Markas Divisyen di Hiroshima yang terletak di perkarangan Istana Hiroshima musnah dalam pengeboman atom pada 6 Ogos 1945.